大型语言模型

  • 10 分钟

生成式 AI 应用程序由大型语言模型 (LLM) 提供支持，这是一种专用的机器学习模型，可用于执行自然语言处理 (NLP) 任务，包括：

  • 确定情绪或以其他方式对自然语言文本进行分类。
  • 汇总文本。
  • 比较多个文本源的语义相似性。
  • 生成新的自然语言。

虽然这些 LLM 背后的数学原理可能比较复杂，但对用于实现它们的体系结构有基本的了解可以帮助你从概念上了解它们的工作原理。

Transformer 模型

自然语言处理的机器学习模型已经过多年的演变。 当今最先进的大型语言模型基于 Transformer 体系结构，该体系结构基于一些技术并进行了扩展，这些技术已被证明可以成功地对词汇表进行建模，以支持 NLP 任务，特别是在生成语言方面。 Transformer 模型使用大量文本进行训练，使它们能够表示单词之间的语义关系，并使用这些关系来确定可能有意义的文本序列。 Transformer 模型拥有大量词汇，足以生成与我们人类相似的自然语言响应。

Transformer 模型体系结构包含两个组件（或块）：

  • 编码器块，用于创建训练词汇的语义表示形式。
  • 解码器块，用于生成新的语言序列。

实际上，体系结构的具体实现各不相同，例如，Google 开发的用于支持其搜索引擎的基于 Transformers 的双向编码表征 (Bidirectional Encoder Representations from Transformers, BERT) 模型仅使用编码器块，而 OpenAI 开发的生成式预训练 Transformer 模型仅使用解码器块。

虽然对 Transformer 模型各个方面的完整解释超出了本模块的范围，但对 Transformer 中的一些关键元素的解释有助于你了解它们如何支持生成式 AI。

词汇切分

训练 Transformer 模型的第一步是将训练文本分解为标记，也就是标识每个唯一的文本值。 为简单起见，可以将训练文本中的每个不同单词视为一个标记（但实际上，可以为部分单词生成多个标记，或者将单词和标点符号组合起来）。

例如，考虑以下句子：

I heard a dog bark loudly at a cat（我听到有一条狗在对一只喵狂叫）

若要标记此文本，可以标识每个离散单词，并为其分配标记 ID。 例如：

  • I (1)
  • heard (2)
  • a (3)
  • dog (4)
  • bark (5)
  • loudly (6)
  • at (7)
  • （“a”已被标记为 3）
  • cat (8)

现在可以使用以下标记来表示这句话：[1 2 3 4 5 6 7 3 8]。 同样，“I heard a cat”（我听到有猫的声音）这句话可以表示为 [1 2 3 8]。

在继续训练模型时，训练文本中的每个新标记都会添加到具有相应标记 ID 的词汇中：

  • meow (9)
  • skateboard (10)
  • 诸如此类...

使用足够大的训练文本集，可以编译包含数千个标记的词汇。

嵌入

虽然可以将标记表示为简单的 ID（主要是为词汇表中的所有单词创建索引），但通过这种方式，我们无从知晓单词的含义或各单词之间的关系。 为了创建可封装标记之间的语义关系的词汇，我们为其定义了上下文向量（称为嵌入）。 向量是信息的多值数值表示形式，例如 [10, 3, 1]，其中每个数值元素都表示信息的一个特定属性。 对于语言标记，标记向量的每个元素表示该标记的某种语义属性。 语言模型中向量元素的特定类别在训练期间取决于单词一起使用或在类似上下文中的常用程度。

将标记嵌入向量中的元素视为多维空间中的坐标可能会很有用，这样每个标记就会占据一个特定的“位置”。标记在特定的维度上彼此越近，它们在语义上的相关程度就越高。 换言之，相关单词会更紧密地组合在一起。 举个简单的例子，假设标记的嵌入由包含三个元素的向量组成，例如：

  • 4 ("dog"): [10.3.2]
  • 5 ("bark"): [10,2,2]
  • 8 ("cat"): [10,3,1]
  • 9 ("meow"): [10,2,1]
  • 10 ("skateboard"): [3,3,1]

我们可以在三维空间中基于这些向量绘制标记的位置，如下所示：

在三维空间中绘制的标记向量关系图。

标记在嵌入空间中的位置包括一些有关标记彼此关联程度的信息。 例如，“dog”的标记接近“cat”，也接近“bark”。“cat”和“bark”的标记接近“meow”。“skateboard”的标记离其他标记更远。

注意

上面的示例演示了一个简单的示例模型，其中每个嵌入只有三个维度。 而真实的语言模型具有更多维度。

有多种方法可以计算给定标记集的适当嵌入，包括语言建模算法（如 Word2Vec 或 Transformer 模型中的编码器块）。

Attention

Transformer 模型中的编码器块和解码器块包括构成模型的神经网络的多个层。 我们不需要深入了解所有这些层的详细信息，但有必要考虑在这两个块中使用的注意力层这一层类型。 注意力是一种技术，可用于检查文本标记序列并尝试量化它们之间的关系强度。 具体而言，自注意力需要考虑某个特定标记周围的其他标记如何影响该标记的含义。

在编码器块中，在上下文中仔细检查每个令牌，并为其矢量嵌入确定适当的编码。 向量值基于该标记与它经常出现的其他标记之间的关系。 这种注重上下文环境的方法意味着同一个词可能具有多个嵌入，具体取决于其使用的上下文，例如，“the bark of a tree”的含义与“I heard a dog bark”不同。

在解码器块中，注意力层用于预测序列中的下一个标记。 对于生成的每个标记，模型都有一个注意力层，该层会考虑截至该点为止的标记序列。 在考虑下一个标记时，模型会考虑哪些标记最具影响力。 例如，给定序列“I heard a dog”，在考虑序列中的下一个单词时，注意力层可能会为标记“heard”和“dog”分配更大的权重：

I heard a dog [bark]

请记住，注意力层使用的是标记的数值向量表示形式，而不是实际文本。 在解码器中，该过程从一系列表示要完成的文本的标记嵌入开始。 发生的第一件事是，另一个位置编码层会向每个嵌入添加一个值，以指示其在序列中的位置：

  • [1,5,6,2] (I)
  • [2,9,3,1] (heard)
  • [3,1,1,2] (a)
  • [4,10,3,2] (dog)

在训练期间，目标是根据前面的标记预测序列中最终标记的向量。 注意力层会将数字权重分配给目前为止序列中的每个标记。 它会使用该值对加权向量执行计算，生成可用于计算下一个标记的可能向量的注意力分数。 在实际中，一种称为“多头注意力”的技术会使用嵌入的不同元素来计算多个注意力分数。 然后，使用神经网络来评估所有可能的标记，以确定要继续该序列的最可能标记。 对于序列中的每个标记，该过程都会以迭代方式继续，到目前为止的输出序列会以回归方式用作下一次迭代的输入，实质上是一次生成一个标记的输出。

以下动画演示了其工作原理的简化表示，实际上，注意力层执行的计算要复杂得多；但可以简化这些原理，如下所示：

显示注意力层为标记分配权重并预测下一个标记的动画。

  1. 标记嵌入的序列被馈送到注意力层。 每个标记都表示为数值的向量。
  2. 解码器的目标是预测序列中的下一个标记，该标记也是一个向量，与模型词汇中的嵌入一致。
  3. 注意力层会评估到目前为止的序列，并将权重分配给每个标记，以表示它们对下一个标记的相对影响。
  4. 权重可用于计算具有注意力分数的下一个标记的新向量。 多头注意力在嵌入中使用不同的元素来计算多个备用标记。
  5. 完全连接的神经网络使用计算向量中的分数来预测整个词汇表中最有可能的标记。
  6. 预测的输出将附加到到目前为止的序列中，用作下一次迭代的输入。

在训练期间，标记的实际序列是已知的，我们只是会屏蔽序列中比当前正在考虑的标记位置出现得更晚的标记。 与在任何神经网络中一样，也需要将标记向量的预测值与序列中下一个向量的实际值进行比较，并计算损失。 然后以增量方式调整权重，以减少损失并改进模型。 当用于推理（预测）的新标记序列时，训练的注意力层会应用权重来预测模型词汇中与序列语义上保持一致的最可能标记。

这一切都意味着，GPT-4（ChatGPT 和 Bing 背后的模型）等 Transformer 模型旨在接收文本输入（称为提示）并生成语法上正确的输出（称为补全）。 实际上，模型的“神奇之处”在于它能够将一个连贯的句子串在一起。 拥有这种能力并不意味着模型有任何“知识”或“智能”；只是有大量的词汇量和生成有意义的单词序列的能力。 然而，像 GPT-4 这样的大型语言模型之所以如此强大，是因为它所训练的数据（来自 Internet 的公共数据和获得许可的数据）的数量庞大以及网络的复杂性。 通过这种方式，模型可以根据训练模型的词汇表中单词之间的关系生成补全；通常会生成与人类对同一提示的回答相似的输出。